查看原文
其他

RTMPose 家族史诗级更新!多人、全身一网打尽

OpenMMLab
2024-11-23

【社区开放麦】开播啦!!!技术下饭番追起来,每周一个新芝士。欢迎广大社区同学加入直播间参与讨论的同时,也非常鼓励社区同学拿起话筒登上舞台,社区知识开放麦等你来玩~





本期精彩



人体姿态估计一直是计算机视觉领域的核心任务之一。去年,RTMPose 发布以后,作为该领域内将速度-精度平衡做到最好的高性能实时姿态估计模型,深受学术界和工业界用户的喜爱。


但是,作为二阶段模型,RTMPose 推理时间随画面中人数增加,在多人场景下难以做到实时推理。针对这种情况,MMPose 团队推出了单阶段模型 RTMO。RTMO 在多人场景下能稳定地进行实时推理,且在多人拥挤场景能达到 SOTA 水平。


另外,随着 AIGC 领域的迅猛发展,全身姿态估计对于 Pose-guided 图像生成而言至关重要,精准的全身姿态估计可以极大改善 AI 生成的人像手部失真问题。为此 MMPose 团队推出了全身姿态估计模型 RTMW。RTMW 首次在 COCO-Wholebody 上取得高于 70 的 AP,其手部关键点检测精度更是远远高于之前的全身姿态估计模型。



本次社区开放麦,我们特别邀请到 MMPose 团队,他们将为我们介绍 RTMO 和 RTMW 的原理和使用方式,以及分享如何使用 MMPose 研发 SOTA 算法的技巧和心得。



分享内容


  • 单阶段实时多人姿态估计 SOTA 方法 RTMO

  • 全身姿态估计 SOTA 方法 RTMW

  • 如何用 MMPose 研发新算法



分享时间


北京时间

2024 年 1 月 18 日(周四)

20: 00 - 20: 40(分享)

20: 40 - 21: 00(Q&A)



分享嘉宾


Lupeng


清华深研院研究生,MMPose 开发者


Tau


MMPose 负责人,香港中文大学计算机硕士,主要研究方向为 Human-centric 感知任务与大语言模型。知乎id:镜子。



内容详情


单阶段实时多人姿态估计 RTMO


目前主流的实时姿态估计工具都是基于二阶段自顶向下(e.g. RTMPose, TinyPose)或者单阶段(e.g. YOLO-Pose)架构的。前者推理时间随人数增长,后者目前精度还比较低。RTMO 将 RTMPose 的坐标分类方法与 YOLOX 架构进行了结合,将 YOLO 架构的单阶段姿态估计模型的精度提升到了和二阶段模型 RTMPose 相近的水平,同时保持了在多人场景中的实时推理速度。



本次分享中,MMPose 团队会介绍 RTMO 的两个核心机制(动态坐标分类机制、基于极大似然估计设计的坐标分类损失函数)的设计思路、结构细节,以及在将坐标分类方法与 YOLO 架构结合过程中碰到的问题及解决方式。


全身姿态估计 RTMW


针对全身姿态估计场景,MMPose 团队对原本的 RTMPose 结构进行了优化,极大提升了全身姿态估计的精度。我们将介绍 RTMW 的模型结构、数据组织方式,并分享全身姿态估计优化的经验和总结。



用 MMPose 做算法研发的 tips


最后,我们会分享如何用 MMPose 进行算法研发,包括:


  • 如何方便地进行对比实验

  • 如何进行姿态估计模型部署和测速

  • 如何用 MMPose 进行多数据集混合训练探索模型的性能极限


更多精彩内容,请锁定本周四晚 20:00 社区开放麦直播间,现场为你揭秘 RTMPose 模型的神秘面纱。



Paper

RTMO: Towards High-Performance One-Stage Real-Time Multi-Person Pose Estimation

arXiv: https://arxiv.org/abs/2312.07526


Code:

RTMO: https://github.com/open-mmlab/mmpose/tree/main/projects/rtmo



交流群


同时为了方便大家交流沟通,我们建立了相关的交流群,本期分享的大佬也在群里哦,可与大佬进行 1v1 沟通 ,扫码即可入群~






往期回顾



上期 AI 奇妙夜,我们邀请到武执政教授,他从常见的语音、音频生成任务开始,介绍语音合成、语音转换、歌声转换、音效生成等主流语音与音频生成任务以及这些任务中当前的 State-of-the-art 方法。


同时,他还为我们分享了近期开源的一个语音、音频及音乐生成开源框架 Amphion,介绍其独有的可视化功能如何帮助初级研究人员和工程师更好地理解相关模型,从而协助初级研究人员和工程师在音频、音乐和语音生成等方面实现可持续的研究与开发。


感兴趣的同学,可以通过直播回放学习一下哦~


继续滑动看下一个
OpenMMLab
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存